五大场景、五大能力革新生产力工具。
百度交卷:“文心一言”来了!
“文心一言要对标ChatGPT门槛很高,目前百度在全球互联网大厂中第一个做出来。”百度创始人、董事长兼首席执行官李彦宏在文心一言公开邀请测试时表示。
百度创始人、董事长兼首席执行官李彦宏正式公布文心一言。
3月16日起,首批用户即可通过邀请测试码,在文心一言官网体验产品。同时,百度智能云于同日面向企业客户开放文心一言API接口调用服务预约测试。
扎根中国文化土壤的大模型
文心一言到底具有怎样的能力?李彦宏在邀请测试中展示了文心一言在文学创作、商业文案创作、数理推算、中文理解、多模态生成五个使用场景中的表现。
在文学创作场景中,文心一言根据对话问题将知名科幻小说《三体》的核心内容进行了总结,并提出了五个续写《三体》的角度,体现出对话问答、总结分析、内容创作生成的综合能力。
在商业文案创作场景中,文心一言顺利完成了给公司起名、写Slogan、写新闻稿的创作任务。
在内容创作生成展示中,文心一言既能准确理解人类意图,又能清晰地表达,这是基于庞大数据规模而发生的“智能涌现”。文心一言大模型的训练数据包括万亿级网页数据、数十亿的搜索数据和图片数据、百亿级的语音日均调用数据,以及5500亿事实的知识图谱等,这让百度在中文语言的处理上,能够处于独一无二的位置。
文心一言“鸡兔同笼”案例演示。
文心一言还具备了一定的思维能力,能够学会数学推演及逻辑推理等相对复杂任务。面对“鸡兔同笼”这类锻炼人类逻辑思维的经典题,文心一言能理解题意,并有正确的解题思路,进而像学生做题一样,按正确的步骤,一步一步算出正确答案。
文学创作、商业文案创作、数理推算是大语言模型常见的优势和能力,在此基础上,文心一言还表现出更优秀的中文理解及多模态生成能力。
作为扎根于中国市场的大语言模型,文心一言具备中文领域最先进的自然语言处理能力,在中文语言和中国文化上有更好的表现。在现场展示中,文心一言正确解释了成语“洛阳纸贵”的含义、“洛阳纸贵”对应的经济学理论,还用“洛阳纸贵”四个字,创作了一首藏头诗。
从现场展示来看,文心一言某种程度上具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性都逐渐接近人类水平。但李彦宏也多次提及,这类大语言模型还远未到发展完善的阶段,进步空间很大,未来这段时间它一定会飞速发展,日新月异。
多模态生成方面,李彦宏现场展示了文心一言生成文本、图片、音频和视频的能力。有趣的是,文心一言甚至能够生成四川话等方言语音;文心一言的视频生成能力则因成本较高,现阶段还未对所有用户开放,未来会逐步接入。
“多模态是生成式AI一个明确的发展趋势。”李彦宏表示,“未来,随着百度多模态统一大模型的能力增强,文心一言的多模态生成能力也会不断提升。”
李彦宏强调:“文心一言将建立起真实用户反馈、开发者调用和模型迭代之间的飞轮,效果会迅速提升,给你‘士别三日,当刮目相看’的惊喜。”
文心一言并非突击而来
目前,大语言模型和生成式AI代表了一个新技术范式,是全球每家企业都不可错过的机会。虽然百度是全球大厂中第一个做出对标ChatGPT产品的企业,但它并非突击而来。
李彦宏指出:“无论是哪家公司,都不可能靠突击几个月就能做出这样的大语言模型。深度学习、自然语言处理,需要多年的坚持和积累,没法速成。”
百度首席技术官王海峰表示,文心一言,是新一代知识增强大语言模型,是在ERNIE及PLATO系列模型的基础上研发的。它的关键技术包括有监督精调、人类反馈的强化学习、提示、知识增强、检索增强和对话增强。前三项是这类大语言模型都会采用的技术,ERNIE和PLATO中也已经有应用和积累,在文心一言中又有了进一步强化和打磨;后三项则是百度已有技术优势的再创新,也是文心一言未来越来越强大的基础。
可以说,文心一言是百度过去多年努力的延续。人类进入人工智能时代,IT技术的技术栈发生了根本性变化,从过去三层到“芯片-框架-模型-应用”四层。今天,百度是全球为数不多、在这四层进行全栈布局的人工智能公司,从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,到搜索、智能云、自动驾驶、小度等应用,各个层面都有领先业界的自研技术。
百度是全球位数不多在“芯片-框架-模型-应用”四层进行全栈布局的人工智能公司。
李彦宏认为,百度AI全栈布局的优势在于,可以在技术栈的四层架构中实现端到端优化,大幅提升效率。尤其是框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验。比如,为了支持千亿参数模型的高效分布式训练,百度飞桨专门研发了4D混合并行技术。
推动产业化落地
自今年2月份百度官宣“文心一言”以来,已有超过650家企业宣布接入文心一言生态。百度文心一言定位于人工智能基座型的赋能平台,将助力金融、能源、媒体、政务等千行百业的智能化变革。
李彦宏预测,大语言模型将带来三大产业机会。一是,文心一言将根本性地改变云计算行业的游戏规则,其主流商业模式将从IaaS变为MaaS。二是将改变进行行业模型精调的公司,他们可以基于对行业的洞察,调用通用大模型能力,为行业客户提供解决方案。这方面,百度文心大模型已经在电力、金融、媒体等领域,发布了10多个行业大模型。三是基于大模型底座进行应用开发的公司,即应用服务提供商。对于大部分创业者和企业来说,真正的机会并不是从头开始做ChatGPT和文心一言这样的基础大模型,而是基于通用大语言模型抢先开发重要的应用服务。目前,基于文本生成、图像生成、音频生成、视频生成、数字人、3D等场景,已经涌现出很多创业明星公司,可能就是未来的新巨头。
在文心一言的背后,是能够支撑人工智能所需的算力基础设施。从去年年底开始,百度智能云已经全面升级云服务能力,发布国内首个全栈自研的AI基础设施“AI大底座”,升级AI研发运营一体化(MLOps)能力。今年百度阳泉智算中心完成升级,后续百度多个智算中心也将为“文心一言”面向产业规模化落地提供底层支撑。
“百度希望和大家一起,推动人工智能技术进步,让所有人都能使用最先进的生产力工具,让所有人都能从中受益。”李彦宏表示,AI的长期价值,对各行各业的颠覆性改变,才刚刚开始。
百度同时宣布,百度智能云即将面向企业客户开放文心一言API接口调用服务。3月16日起正式开放预约,打开链接:
https://cloud.baidu.com/survey_summit/wenxin.html?track=C901286
或扫描二维码,申请加入文心一言云服务测试。
附:李彦宏在“文心一言”新闻发布会演讲全文
最近一段时间,很多朋友问我,“为什么是今天,你们真的ready了吗”。其实从某种意义上说我们已经为此准备了多年,我们十几年前就开始投入AI研究,2019年就推出了文心大语言模型,今天的发布是过去多年努力的延续。
但也不能说我们完全ready了,文心一言对标chatGPT,门槛是很高的,全球大厂还没有一个做出来的,百度是第一个,我自己测试感觉还是有很多不完美的地方。
那为什么是今天?因为市场有需求。百度的很多产品,从搜索到智能云,再到自动驾驶,大家都有需要,更重要的是我们的客户需要,合作伙伴需要,从我们承认文心一言的存在到现在,短短一个月的时间,就有超过650家合作伙伴宣布加入文心一言生态,大家都希望能早一点用上最新最先进的大语言模型。
当然,一旦发布,有了真实的人类反馈,文心一言的进步速度会非常快,我们都希望它快点成长,早日为用户和客户创造价值。
百度希望和大家一起,推动人工智能技术进步,让所有人都能使用最先进的生产力工具,让所有人都能从中受益。
十月怀胎,一朝分娩。现在,我就带大家来看看,百度新一代大语言模型、生成式AI产品文心一言。
下面,我会演示五个场景的Demo,包括文学创作、商业文案创作、数理推算、中文理解、多模态生成。
首先来体验一下文学创作。《三体》是非常知名的科幻小说,我们就以这个开头。
Demo1:
刚才的演示中,“总结三体的核心内容”,体现的是文心一言的总结、分析能力。
续写《三体》,体现的是内容创作生成能力。
《三体》的作者是谁?他是哪里人?电视剧三体演员都有谁?文心一言回答是正确的。大家可能知道,生成式AI这类产品,在回答事实性问题时,有时候会出错。
文心一言延续了百度知识增强的大模型理念,大幅度提升了事实性问题的准确率。
于和伟和张鲁一有哪些共同点、于和伟和张鲁一谁更高?这类问题背后,则体现的是文心一言的推理能力。比如,它得先知道两人的准确身高,才能得出正确答案。
我们再来试试文心一言在商业文案创作方向的能力。以常见的公司起名字、写slogan、写新闻稿为例。
Demo2:
刚才的演示,展现了文心一言连续三次内容创作生成。
AI要写好一篇稿子,除了需要准确理解我们的意图,还要有清晰的表达能力。
这背后有一个基础,就是庞大的数据规模。人类常说“读万卷书”,而AI可以说是“读书破千亿卷”。文心一言大模型的训练数据就包括,万亿级网页数据,数十亿的搜索数据和图片数据,百亿级的语音日均调用数据,以及5500亿事实的知识图谱等,这让百度在中文语言的处理上,能够处于独一无二的位置。
有研究表明,数据规模足够大,参数达到千亿级,大模型就可能发生“智能涌现”,即使在没有专门训练过的领域,也能涌现出知识理解和逻辑推理能力。
我们接下来看文心一言对数理逻辑推算任务做的怎么样。鸡兔同笼是锻炼人类逻辑思维的经典题,这个对生成式AI同样有挑战。
Demo3:
对于第一道题,文心一言经过演算,认为可能是题出错了。
对于第二道,文心一言不但给出了正确结果,还详细给出解题步骤。
可以看出,文心一言能理解题意,并有正确的解题思路,进而像学生做题一样,按正确的步骤,一步步算出正确答案。
文心一言已具备了一定的思维能力,能够学会数学推演及逻辑推理这类相对复杂任务。当然,现阶段准确率还不是100%,我们还需要给它更多的时间来学习和成长。
前面三个例子,我们演示了大语言模型比较常见的优势和能力。
下面我们演示一下文心一言的中文理解能力。
Demo4:
“洛阳纸贵”,“藏头诗”,这很考验AI对中文和中国文化的理解。
作为扎根于中国市场的大语言模型,文心一言具备中文领域最先进的自然语言处理能力。这个例子就比较清楚的展示了我们在中文上的优势。
相对应的,一言目前对英文语种、代码场景的训练还不够多,表现还不够好,接下来我们还要加紧训练,不断完善这些能力。
接下来,我再演示一个多模态生成方向的Demo。
Demo5:
刚才这一段演示,文心一言生成了文本、图片、音频和视频,展示了多模态生成能力。目前的版本,已经能够生成文字、图片和语音。生成视频因为成本比较高,还没有对所有用户开放,未来我们会逐步接入。但是熟悉百家号创作的朋友,应该都体验过这个功能了,每天有几万篇文章通过这个能力转成视频内容在百度分发。
多模态是生成式AI一个明确的发展趋势。
未来,随着百度多模态统一大模型的能力增强,文心一言的多模态生成能力,也会不断提升。
上面这些演示案例,在发布会后,大家也可以亲自去测试体验。
从文心一言的表现看,某种程度上它具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性,都逐渐接近人类水平。
但整体而言,这类大语言模型还远未到发展完善的阶段,它们有时候会有很惊艳的表现,但不少场景下,细究起来还有明显的bug,进步空间很大。未来这段时间它一定会飞速发展,日新月异。
通过定向微调,可以在百度内外部各类产品上逐步展示出惊人的亲和力,让每一个产品离自己的用户和客户更近。
文心一言这样的大语言模型,会成为每个人必不可少的生产力工具。
不过,无论是哪家公司,都不可能靠突击几个月就能做出这样的大语言模型。深度学习、自然语言处理,需要多年的坚持和积累,没法速成。
人类进入人工智能时代,IT技术的技术栈发生了根本性变化。过去基本分为三层:芯片层,操作系统层和应用层。现在可以分为四层:芯片层、框架层、模型层和应用层。
今天,百度是全球为数不多、在这四层进行全栈布局的人工智能公司,从高端芯片昆仑芯,到飞桨深度学习框架,再到文心预训练大模型,到搜索、智能云、自动驾驶、小度等应用,各个层面都有领先业界的自研技术。
文心一言位于模型层。2019年,百度推出了文心大模型ERNIE 1.0。目前,ERNIE 3.0每天接受数十亿次用户的搜索请求。这让文心一言能够基于一个庞大的、高效的数据池,快速地学习和改进。
大模型训练堪称暴力美学,需要有大算力、大数据和大模型,每一次训练任务都耗资巨大。全栈布局的优势在于,可以在技术栈的四层架构中,实现端到端优化,大幅提升效率。尤其是,框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验。比如,为了支持千亿参数模型的高效分布式训练,百度飞桨专门研发了4D混合并行技术。
另外,芯片、框架、大模型、和终端应用场景,可以形成一个高效的反馈闭环,帮助大模型不断去调优迭代,越做越好。更好的大模型,会让用户体验不断升级。
我还想强调一点,在全球范围内,在四层架构的每一层都有领先产品的公司几乎没有,百度的优势非常独特,相信大家会在后续文心的迭代速度上有明显感受。
自2月份百度官宣“文心一言”以来,已有超过650家企业宣布接入文心一言生态,感谢每一位伙伴的支持。
这也意味着,很多的企业已经理解到,文心一言和生成式AI,代表了一个新的技术范式,是一个每家企业都不可以错过的巨大的机会。AI市场即将迎来爆发性的需求增长,其商业价值的释放将是前所未有的、指数级的。
我们对文心一言的定位,是一个通用的赋能平台,金融、能源、媒体、政务等千行百业,都可以基于这个平台来实现智能化变革,实现效率提升,创造巨大的商业价值。
文心一言不仅仅会影响搜索或者互联网公司,而是会影响到每一家公司,由于它超强的自然语言理解和表达能力,它让任何公司都有机会离自己的客户更近,有机会通过这些能力去创建最好的客户体验,从而比其他人更能抓住客户,获得更强的竞争优势。
文心一言对个人的改变也会是巨大的,有机构预测,到2030年,人工智能可以将每一个知识工作者的生产力提高4倍以上。很多人的工作性质会发生不可逆转的改变。
我认为生成式AI,将催生新产品、新业态,会有很多创业和投资机会。
对于大部分创业者和企业来说,真正的机会并不是从头开始做ChatGPT和文心一言这样的基础大模型,这很不现实,也不经济。
对于大部分创业者和企业来说,真正的机会是,基于通用大语言模型,抢先开发重要的应用服务。就像移动互联网时代,最成功的商业产品不见得是安卓和IOS,而是基于安卓和IOS开发的微信、淘宝、抖音等各种超级应用。
我认为大模型时代将产生三大产业机会:
第一类是新型云计算公司,其主流商业模式从IaaS变为MaaS。文心一言,将根本性地改变云计算行业的游戏规则。之前企业选择云厂商更多看算力、存储等基础云服务。未来,更多会看框架好不好、模型好不好,以及模型、框架、芯片、应用这四层之间的协同。
文心一言将通过百度智能云对外提供服务,帮助企业构建自己的模型和应用,农业、工业、金融、教育、医疗、交通、能源等重点领域,都会因此效率大幅提升,并在每一个行业快速形成新的产业空间,助力数字中国的实现。百度智能云将于近期举办发布会。发布基于文心一言的云服务和应用产品,我们既有公有云服务和也可以做私有化部署,请大家期待。
第二类是进行行业模型精调的公司,这是通用大模型和企业之间的中间层,他们具有行业Know how,调用通用大模型能力,为行业客户提供解决方案。我们的文心大模型,已经在电力、金融、媒体等领域,发布了10多个行业大模型。在各行各业都有机会。非常欢迎大家来跟我们合作。
第三类是基于大模型底座进行应用开发的公司,即应用服务提供商。今天,基于文本生成、图像生成、音频生成、视频生成、数字人、3D等场景,已经涌现出很多创业明星公司,他们可能就是未来的新巨头。这里面的机会非常多,可以说每家企业在现在这个阶段都有机会。
我们相信,人工智能会彻底改变我们今天的每一个行业。AI的长期价值,对各行各业的颠覆性改变,才刚刚开始。未来,将会有更多的杀手级应用、现象级产品出现,将会有更多的里程碑事件发生。
文心一言发布之后,将建立起真实用户反馈、开发者调用和模型迭代之间的飞轮,效果会迅速提升,给你“士别三日,当刮目相看”的惊喜。
最后我想说,文心一言不是中美科技对抗的工具,而是一代代百度技术人员追逐科技改变世界的梦想的产物,是我们服务亿万用户,赋能千行百业的全新的平台,是创新驱动发展的最佳证明。
谢谢大家的关注和支持。
推荐阅读